시계열 회귀분석

시계열 데이터는 시간의 흐름에 따라 순차적으로 관측된 데이터를 의미한다. 이러한 데이터는 일반적인 횡단면 데이터와 달리 관측값 간에 시간적 의존성을 가지는 것이 핵심적인 특성이다. 이러한 의존성은 자기상관으로 나타나며, 이전 시점의 값이 이후 시점의 값에 영향을 미치는 현상을 말한다. 시계열 회귀분석에서는 이러한 자기상관을 모델링하지 않으면 추정의 효율성이 떨어지거나 잘못된 통계적 결론을 내릴 위험이 있다.

시계열 데이터는 일반적으로 몇 가지 구성 요소로 분해하여 이해한다. 장기적인 증가 또는 감소 경향을 나타내는 트렌드, 일정한 주기로 반복되는 계절성, 그리고 불규칙하고 예측 불가능한 변동을 의미하는 잔차 또는 오차 성분이 그것이다. 예를 들어, 월별 에너지 소비량 데이터는 경제 성장에 따른 장기적 트렌드, 계절에 따른 난방 또는 냉방 수요에서 비롯된 계절성, 그리고 기상 이변 등 특수 요인으로 인한 불규칙 변동이 혼합되어 있다.

이러한 특성들은 시계열 회귀분석에 중요한 함의를 제공한다. 분석의 첫 단계는 데이터의 정상성을 확인하는 것이다. 정상성이란 데이터의 통계적 특성(평균, 분산 등)이 시간에 따라 변하지 않는 상태를 말하며, 많은 시계열 모델의 기본 가정이다. 또한, 여러 시계열 변수 간의 장기적 균형 관계를 탐색하는 공적분 분석은 변수들 사이의 진정한 인과 관계를 규명하는 데 필수적이다. 이러한 특성들을 고려하지 않은 회귀분석은 허위 회귀의 문제를 야기할 수 있다.

시계열 회귀분석은 전통적인 회귀분석의 프레임워크를 시계열 데이터에 적용하는 방법이다. 전통적인 회귀분석은 주로 독립적인 관측치를 가정하지만, 시계열 데이터는 시간 순서에 따라 관측되며 자기상관을 가질 수 있다는 점이 근본적인 차이를 만든다. 따라서 시계열 회귀분석에서는 설명 변수와 종속 변수 모두가 시간의 함수이며, 오차항에 체계적인 패턴이 존재하지 않는다는 기본 가정을 검증하는 것이 매우 중요해진다.

이러한 결합의 핵심은 시간의 흐름을 모델에 명시적으로 통합하는 데 있다. 예를 들어, 시간 자체를 설명 변수로 포함시켜 트렌드를 모델링하거나, 계절성을 반영하기 위해 더미 변수를 추가할 수 있다. 더 나아가, 종속 변수의 과거 값이나 다른 시계열 변수의 과거 값이 현재 값을 설명하는 데 사용될 수 있으며, 이는 계량경제학에서 발전된 동적 모델의 기초가 된다.

시계열 회귀분석을 수행할 때 가장 주의해야 할 점은 정상성이다. 추세나 계절성을 가진 비정상 시계열 데이터로 회귀모형을 구축하면 가짜 회귀 문제가 발생하여 통계적으로 유의미해 보이지만 실제로는 무의미한 관계를 도출할 위험이 있다. 따라서 분석 절차에는 데이터의 정상성 확인과 필요한 경우 차분을 통한 변환 과정이 필수적으로 포함된다.

이 방법론은 경제 예측, 재무 분석, 수요 예측 등 다양한 예측 분석 분야에서 널리 활용된다. 변수 간의 인과 관계를 탐구하면서 동시에 미래 값을 예측할 수 있는 강력한 도구로, 통계학과 머신러닝을 연결하는 중요한 접근법 중 하나이다.

ARIMA 회귀는 ARIMAX 모델이라고도 불리며, ARIMA 모델에 외생 변수를 추가한 확장 모델이다. 기존의 ARIMA 모델이 과거의 자기 자신의 값만을 사용하여 미래를 예측하는 데 반해, ARIMAX 모델은 예측하고자 하는 시계열 외에 다른 설명 변수의 영향을 함께 고려한다. 이를 통해 더 풍부한 정보를 바탕으로 예측 정확도를 높이거나, 외생 변수가 종속 변수에 미치는 영향을 정량적으로 분석할 수 있다.

ARIMAX 모델의 구조는 기본적으로 회귀 분석 모델과 ARIMA 모델의 결합으로 볼 수 있다. 먼저, 종속 시계열과 하나 이상의 외생 변수들 간의 선형 관계를 회귀 모델로 설명한다. 그리고 이 회귀 모델의 잔차가 더 이상 자기상관을 보이지 않도록, 잔차에 ARIMA 모델을 적합시킨다. 결과적으로 모델은 외생 변수의 효과와 잔차의 시계열적 특성을 동시에 포착하게 된다.

이 모델을 적용할 때는 몇 가지 주의점이 있다. 우선, 사용되는 모든 외생 변수는 예측 시점에서 그 값을 미리 알고 있어야 한다. 따라서 외생 변수의 미래값도 별도로 예측해야 하는 경우가 많다. 또한, 종속 변수와 외생 변수 간에 공적분 관계가 존재할 수 있으며, 이 경우 오차 수정 모델과 같은 다른 접근법이 더 적합할 수 있다. 모델의 적합도는 잔차 분석을 통해 검증하며, 잔차가 백색 잡음의 특성을 보이는지 확인한다.

ARIMAX 모델은 경제 지표 예측, 에너지 수요 분석, 판매량 예측 등 다양한 분야에서 활용된다. 예를 들어, 월별 전력 수요를 예측할 때 ARIMA 모델에 기온, 공휴일 여부, 경제 활동 지수 등의 외생 변수를 추가하여 보다 정교한 예측 모델을 구축하는 데 사용할 수 있다.

동적 회귀 모델은 종속 변수와 하나 이상의 설명 변수 간의 관계를 모델링할 때, 설명 변수의 현재 값뿐만 아니라 과거 값의 영향도 함께 고려하는 접근법이다. 이는 전통적인 회귀분석이 변수 간의 동시적 관계만을 가정하는 것과 대비된다. 특히 경제학이나 금융 데이터와 같이 변수 간의 영향이 시간을 두고 나타나는 경우, 즉 시차 효과가 존재하는 경우에 유용하게 적용된다. 이러한 모델은 분산 지연 모델이나 자기회귀 분산 지연 모델과 같은 형태로 표현되기도 한다.

동적 회귀 모델의 핵심은 설명 변수의 현재 값과 여러 시점의 과거 값(지연 변수)이 종속 변수에 미치는 영향을 각각의 계수로 추정하는 데 있다. 예를 들어, 오늘의 광고 지출이 당일 매출뿐만 아니라 내일, 모레의 매출에도 영향을 미칠 수 있다고 가정하면, 광고 지출의 현재 값과 지연된 값들을 모두 모델에 포함시켜 그 영향을 정량화할 수 있다. 이는 단기적 및 장기적 효과를 구분하여 이해하는 데 도움을 준다.

이 모델을 구축하고 해석할 때는 몇 가지 중요한 통계적 문제를 고려해야 한다. 설명 변수들 사이에 높은 상관관계가 존재하는 다중공선성 문제가 발생할 수 있으며, 모델에 포함된 지연 변수의 최적 개수를 결정하는 것도 과적합을 방지하는 데 중요하다. 또한, 잔차에 자기상관이 남아있지 않은지 확인하는 것이 모델의 타당성을 검증하는 필수 단계이다. 이러한 점검을 통해 추정된 계수와 예측의 신뢰성을 높일 수 있다.

동적 회귀 모델은 계량경제학에서 정책 효과의 시차를 분석하거나, 마케팅에서 광고 효과의 지속성을 평가하는 등 다양한 분야에서 활용된다. 시계열 회귀분석의 다른 모델인 ARIMA 회귀 모델이 종속 변수의 자기회귀 성질을 명시적으로 모델링하는 반면, 동적 회귀 모델은 주로 외생 변수들의 지연된 영향에 초점을 맞춘다는 차이점이 있다.

오차 수정 모델은 장기 균형 관계에서 벗어난 시점의 단기 동적 조정 과정을 설명하는 시계열 분석 기법이다. 이 모델은 공적분 관계가 존재하는 두 개 이상의 비정상 시계열 변수 간의 관계를 분석할 때 주로 사용된다. 즉, 변수들이 장기적으로 일정한 균형 관계를 유지하면서도, 단기적으로는 불균형이 발생할 경우 이를 수정해 나가는 메커니즘을 포착한다.

모델의 일반적인 형태는 장기 균형 관계를 나타내는 공적분 방정식과, 단기 조정 과정을 나타내는 차분 방정식의 결합으로 구성된다. 차분 방정식에는 종속 변수의 단기 변화를 설명하는 독립 변수들의 차분 항과 함께, 전기에서의 장기 균형으로부터의 이탈 정도를 나타내는 '오차 수정 항'이 포함된다. 이 오차 수정 항의 계수는 시스템이 불균형을 얼마나 빠르게 수정하는지를 나타내는 조정 속도를 의미한다.

오차 수정 모델은 특히 계량경제학과 거시경제학 분야에서 널리 응용된다. 예를 들어, 소비와 소득 간의 관계, 통화량과 물가 간의 관계, 혹은 다양한 금리 간의 관계를 분석할 때 유용하게 사용된다. 이러한 경제 변수들은 비록 단기적으로는 각자의 추세를 따르더라도, 장기적으로는 서로 궤도를 같이하는 경우가 많기 때문이다.

이 모델을 적용하기 위한 전제 조건은 분석 대상 변수들이 동일한 차수로 단위근을 가지며, 서로 공적분 관계에 있어야 한다는 점이다. 따라서 모델 구축 전에 단위근 검정과 공적분 검정을 수행하여 데이터가 이러한 조건을 만족하는지 확인하는 절차가 필수적이다.

시계열 회귀분석을 수행하기 위한 첫 단계는 데이터 준비 및 탐색이다. 이 단계에서는 분석에 사용할 원시 데이터를 수집하고 정제하며, 데이터의 기본적인 특성을 파악하는 과정을 거친다. 데이터의 품질과 탐색적 분석의 충실도는 이후 모델링의 성패를 좌우하는 핵심 요소이다.

데이터 준비 과정에서는 먼저 분석 목적에 맞는 시계열 데이터를 수집한다. 데이터는 일반적으로 일정한 시간 간격으로 관측된 값들의 순서열 형태를 가지며, 결측치나 이상치가 존재할 수 있다. 이러한 문제점을 식별하고 적절히 처리하는 것이 중요하다. 예를 들어, 결측치는 보간법을 사용하여 채우거나, 분석 기간을 조정하여 제외할 수 있다. 또한, 데이터의 시간 단위(예: 일별, 월별, 분기별)를 분석 목적에 맞게 통일하는 작업도 포함된다.

데이터 탐색 단계에서는 시각적 도구와 통계적 기법을 활용하여 데이터의 패턴을 조사한다. 시계열 그래프를 그려 트렌드나 계절성과 같은 장기적 패턴을 확인하는 것이 일반적이다. 또한, 자기상관 함수와 편자기상관 함수를 계산하여 시계열 내의 시간적 의존성을 정량적으로 평가한다. 이를 통해 데이터가 정상성을 만족하는지 여부를 사전에 판단할 수 있으며, 필요한 경우 차분이나 변환을 통해 정상 시계열로 만드는 방법을 고려하게 된다. 이 단계에서의 발견 사항은 이후 모델 식별 과정에 직접적인 입력으로 활용된다.

시계열 회귀분석에서 모델 식별 및 추정은 분석의 핵심 단계이다. 이 단계에서는 분석 대상 시계열 데이터의 특성을 바탕으로 적절한 통계 모델을 선택하고, 그 모델의 매개변수를 데이터에 맞추어 추정하는 과정을 거친다.

모델 식별은 먼저 데이터의 정상성을 평가하는 것으로 시작한다. 단위근 검정이나 시계열 플롯을 통해 트렌드나 계절성이 존재하는지 확인한다. 비정상 시계열의 경우 차분을 통해 정상 시계열로 변환하는 것이 일반적이다. 이후 자기상관 함수와 편자기상관 함수의 패턴을 분석하여 ARIMA 모델의 차수(p, d, q)를 결정한다. 회귀분석 모델과 결합하는 경우, 설명 변수의 포함 여부와 형태(예: 지연 변수)를 함께 고려한다.

모델이 식별되면 최대우도추정법이나 최소제곱법과 같은 통계적 추정 방법을 사용하여 모델의 매개변수를 추정한다. 이 과정에서는 회귀 계수, 자기회귀 계수, 이동평균 계수 등이 데이터에 기반해 계산된다. 추정된 모델의 적합도는 잔차 분석을 통해 검토되며, 잔차가 백색 잡음인지 확인하여 모델이 데이터의 정보를 충분히 설명했는지 판단한다.

모델 검증은 추정된 시계열 회귀 모델이 데이터를 적절히 설명하고 미래를 예측하는 데 신뢰할 수 있는지 평가하는 핵심 단계이다. 이 과정은 주로 모델의 잔차를 분석하여 이루어진다. 이상적인 모델의 잔차는 백색 잡음의 특성을 가져야 하며, 이는 잔차 간에 자기상관이 없고 평균이 0이며 분산이 일정해야 함을 의미한다. 잔차의 자기상관을 검정하기 위해 Ljung-Box 검정이나 Durbin-Watson 검정이 널리 사용되며, 잔차의 정규성은 Q-Q 플롯이나 Shapiro-Wilk 검정으로 확인한다.

검증의 또 다른 중요한 측면은 모델의 예측 성능을 평가하는 것이다. 이를 위해 흔히 데이터를 훈련 세트와 검증 세트로 분리한 후, 훈련 세트로 추정한 모델로 검증 세트의 값을 예측하고 실제 관측값과 비교한다. 예측 정확도를 측정하는 지표로는 평균 절대 오차(MAE), 평균 제곱근 오차(RMSE), 평균 절대 백분율 오차(MAPE) 등이 활용된다. 이러한 예측 오차 지표를 통해 다양한 모델을 비교하여 최종 모델을 선택할 수 있다.

모델이 검증 단계에서 문제를 보일 경우, 모델을 재식별하거나 변수를 변환하는 등의 수정이 필요하다. 예를 들어, 잔차에 자기상관이 남아 있다면 설명 변수나 시차를 추가해야 할 수 있으며, 예측 성능이 낮다면 과적합을 방지하기 위해 모델을 단순화하거나 다른 모델 군을 고려해야 한다. 궁극적으로 모델 검증은 분석의 신뢰성을 확보하고 실무적 의사결정에 활용 가능한 견고한 예측 도구를 마련하는 필수 과정이다.

정상성은 시계열 분석의 핵심 전제 조건 중 하나이다. 이는 시계열 데이터의 통계적 특성, 즉 평균, 분산, 공분산이 시간에 따라 변하지 않고 일정하게 유지되는 상태를 의미한다. 대부분의 고전적 시계열 회귀 모델은 이러한 정상성을 가정하며, 이를 충족하지 않는 비정상 시계열에 모델을 직접 적용하면 허위 회귀 문제가 발생하여 신뢰할 수 없는 결과를 초래할 수 있다.

정상성을 확보하기 위한 일반적인 방법은 차분이다. 차분은 인접한 시점의 관측값 간 차이를 계산하여 추세를 제거하는 기법이다. 예를 들어, 시간에 따라 꾸준히 증가하는 판매량 데이터는 1차 차분을 통해 평균이 일정한 시계열로 변환될 수 있다. 또한, 로그 변환을 통해 분산이 시간에 따라 변하는 이분산성을 조정할 수 있다.

정상성 여부를 검정하는 대표적인 방법으로는 ADF 검정이 널리 사용된다. 이는 단위근이 존재하는지 여부를 통계적으로 검증하여 시계열이 정상 과정인지 비정상 과정인지를 판단한다. 분석자는 이러한 검정 결과와 함께 시계열의 자기상관 함수 및 편자기상관 함수 그래프를 함께 살펴보며 정상성을 종합적으로 판단한다.

공적분은 두 개 이상의 비정상 시계열이 장기적으로 안정적인 균형 관계를 유지하는 현상을 의미한다. 개별 변수는 시간이 지남에 따라 추세를 보여 평균과 분산이 일정하지 않은 비정상성을 가질 수 있지만, 이 변수들의 선형 결합은 정상성을 가질 수 있다. 이러한 관계가 존재할 때 변수들은 공적분 관계에 있다고 말하며, 이는 변수들 사이에 장기적인 균형 관계가 있음을 통계적으로 증명하는 개념이다.

공적분 관계가 확인되면 회귀분석을 통해 추정된 모델이 가짜 회귀의 문제를 피하고 변수 간 진정한 장기 관계를 보여줄 수 있다. 가짜 회귀는 통계적으로 유의미해 보이는 관계가 실제로는 존재하지 않는, 단순히 추세를 공유하는 비정상 시계열 간의 회귀에서 발생하는 문제이다. 공적분 검정은 이러한 오류 가능성을 배제하는 중요한 절차이다.

공적분 분석은 주로 계량경제학과 금융 경제학 분야에서 널리 활용된다. 예를 들어, 소비와 소득, 여러 국가의 주가 지수, 이자율과 물가 간의 장기적 관계를 규명하는 데 사용된다. 공적분이 확인된 경우, 단기적인 불균형이 장기 균형으로 회복되는 메커니즘을 설명하는 오차 수정 모델을 구축할 수 있어 보다 정교한 예측과 분석이 가능해진다.

공적분 관계를 검정하는 대표적인 방법에는 Engle-Granger 검정과 Johansen 검정이 있다. Engle-Granger 검정은 두 변수 간의 단일 공적분 벡터를 검정하는 2단계 방법인 반면, Johansen 검정은 벡터 자기회귀 모델 기반으로 다수의 변수 사이에 존재할 수 있는 여러 개의 공적분 관계를 동시에 검정할 수 있다.

자기상관은 시계열 데이터에서 동일한 변수의 관측값들 사이에 존재하는 상관관계를 의미한다. 즉, 현재 시점의 값이 과거 시점의 값들과 얼마나 관련되어 있는지를 나타내는 척도이다. 이는 시계열 데이터가 독립적이지 않고 시간적 의존성을 가진다는 점에서 회귀분석의 기본 가정과 배치되므로, 시계열 회귀분석에서는 이를 반드시 고려해야 한다. 자기상관이 존재하는 경우 최소제곱법을 통한 모델 추정 결과가 편향되거나 비효율적일 수 있으며, 가설 검정의 신뢰도가 떨어질 수 있다.

자기상관을 탐지하는 대표적인 방법은 더빈-왓슨 통계량을 계산하거나, 잔차의 산점도를 시각적으로 검토하는 것이다. 또한 ACF와 PACF 플롯을 통해 특정 시차에서의 자기상관 계수를 확인할 수 있다. 만약 유의미한 자기상관이 발견되면, 이를 모델에 명시적으로 포함시키거나 오차항의 구조를 조정하여 해결해야 한다. 예를 들어, ARIMA 모델은 자기회귀 항과 이동평균 항을 통해 이러한 자기상관 구조를 직접 모델링한다.

시계열 회귀분석에서 자기상관 문제를 해결하지 않으면 예측의 정확도가 크게 저하될 수 있다. 따라서 모델을 구축한 후에는 잔차 분석을 철저히 수행하여 잔차에 자기상관이 남아있지 않은지 확인하는 것이 필수적이다. 이를 통해 최종 모델의 신뢰성을 높이고 보다 정확한 예측 분석을 수행할 수 있다.

경제 예측은 시계열 회귀분석의 가장 대표적인 응용 분야이다. 이 방법은 과거의 경제 데이터를 바탕으로 미래의 경제 지표를 예측하거나, 다양한 경제 변수들 사이의 인과 관계를 규명하는 데 널리 사용된다. 국내총생산, 물가상승률, 실업률, 환율, 주가 지수 등 주요 거시경제 변수들은 모두 시간의 흐름에 따라 변화하는 시계열 데이터이기 때문이다.

경제 예측에 시계열 회귀분석을 적용할 때는 계량경제학에서 발전시킨 여러 모델이 활용된다. 예를 들어, 중앙은행이 금리 정책의 효과를 분석할 때는 동적 회귀 모델을 사용하여 정책 변화가 경제에 미치는 시차 효과를 추정한다. 또한, 소비자 물가지수와 원자재 가격과 같은 변수들 사이의 장기적 균형 관계를 분석하기 위해서는 공적분 검정과 오차 수정 모델이 필수적으로 요구된다.

이러한 분석은 단순히 미래 수치를 점 추정하는 것을 넘어, 경기 순환의 국면을 파악하거나 경제 충격이 시스템에 어떻게 전파되는지를 이해하는 데 기여한다. 정책 입안자, 금융 기관, 기업의 경영진은 시계열 회귀분석을 통해 도출된 예측 결과와 변수 간 관계 분석을 바탕으로 통화 정책, 재정 정책, 투자 전략 등 중요한 의사결정을 내리게 된다.

판매량 예측은 시계열 회귀분석의 대표적인 응용 분야이다. 소매업과 제조업에서 재고 관리, 생산 계획, 마케팅 전략 수립을 위해 미래의 판매량을 정확히 예측하는 것은 핵심 과제이다. 이때 과거 데이터를 바탕으로 트렌드, 계절성, 프로모션 효과, 경제 지표 등 다양한 변수들의 영향을 분석하는 데 시계열 회귀 모델이 활용된다.

분석 과정에서는 먼저 판매 데이터의 정상성을 확인하고, 강한 자기상관이나 계절성을 모델에 반영한다. ARIMA 회귀 모델은 과거 판매량의 패턴을 설명하는 데 유용하며, 동적 회귀 모델은 광고 집행이나 가격 인하와 같은 마케팅 활동의 효과를 정량적으로 평가하고 그 영향을 고려한 예측을 가능하게 한다. 최근에는 머신러닝 기법과의 결합을 통해 더 복잡한 패턴을 포착하는 시도도 활발하다.

정확한 판매량 예측은 공급망의 효율성을 높이고, 재고 부족 또는 재고 과잉으로 인한 비용을 줄이는 데 기여한다. 또한, 예측 결과를 바탕으로 한 수요 계획은 생산 라인 가동률 최적화와 자원 배분에 중요한 입력값이 된다.

에너지 수요 분석은 전력망 운영, 에너지 정책 수립, 재생 에너지 통합 계획 등에 필수적인 분야로, 시계열 회귀분석이 널리 활용된다. 전력 수요는 시간대, 요일, 계절, 기온, 공휴일 등 다양한 외생 변수의 영향을 강하게 받는다. 따라서 단순한 시계열 예측 모델보다는 이러한 외부 요인들을 설명 변수로 포함하는 회귀 모델이 더 정확한 분석을 가능하게 한다. 예를 들어, 기온과 전력 수요 간의 비선형 관계를 모델링하거나, 휴일 효과를 더미 변수로 추가하는 것이 일반적이다.

에너지 수요 예측은 단기, 중기, 장기로 구분되어 접근 방식이 다르다. 단기 예측(수시간에서 수일 앞)은 전력 거래나 실시간 부하 관리에 활용되며, ARIMAX나 동적 회귀 모델 같은 방법이 적합하다. 중기 예측(수주에서 수개월)은 발전 설비의 정비 계획이나 연료 조달 계획에, 장기 예측(수년)은 새로운 발전소 건설이나 인프라 투자 결정에 사용된다. 특히 태양광 발전과 풍력 발전처럼 간헐성이 있는 재생에너지원의 비중이 높아질수록, 수요 예측의 정확도는 전력 시스템의 안정성과 경제성에 직접적인 영향을 미친다.

이러한 분석의 주요 과제는 데이터의 정상성 문제와 공적분 관계를 다루는 것이다. 에너지 수요와 경제 성장 지표 같은 변수들은 각각 추세를 가지고 있으며, 장기적으로 균형 관계를 가질 수 있다. 오차 수정 모델은 이러한 장기 균형 관계와 단기 조정 메커니즘을 동시에 포착하여 보다 견고한 예측을 제공할 수 있다. 또한, 스마트 미터의 보급으로 고해상도의 소비 데이터가 확보되면서, 더 세분화된 수요 패턴 분석과 수요 반응 프로그램의 효과 평가에도 시계열 회귀분석 기법이 적용되고 있다.